Định nghĩa chính xác của "rau" không được thống nhất, đơn giản do nhiều bộ phận của thực vật được dùng làm thực phẩm trên toàn thế giới—rễ, thân, lá, hoa, quả, hạt. Định nghĩa rộng nhất nằm trong cách dùng ở dạng tính từ của từ này, có nghĩa "vật chất nguồn gốc thực vật". Cụ thể hơn, có thể định nghĩa "rau" là "bất kỳ loại cây, bộ phận của cây được dùng làm thực phẩm",[2] dẫn đến một nghĩa thứ cấp là "bộ phận ăn được của loại cây nào đó". Một định nghĩa chính xác hơn cho là "bất kỳ bộ phận thực vật nào được dùng làm thực phẩm, mà không phải quả hay hạt, nhưng vẫn bao gồm những quả chín dùng trong bữa chính".[3][4] Vượt ra ngoài những định nghĩa này là trường hợp từ nấm ăn (như nấm lớn ăn được) và rong biển ăn được, dù cho không phải là một bộ phận của thực vật, nhưng chúng vẫn thường được coi là rau.[5]

Từ tiếng Anh vegetable được ghi nhận lần đầu tiên vào đầu thế kỷ 15. Từ này lấy từ tiếng Pháp cổ,[6] và nghĩa gốc dùng chỉ để mọi loại thực vật; hiện vegetable vẫn được sử dụng theo nghĩa này trong ngữ cảnh sinh học.[7] Từ này bắt nguồn từ tiếng Latin Trung Cổ vegetabilis, nghĩa là tính từ chỉ trạng thái "đang sinh trưởng, tươi khỏe (của một cái cây)", thay đổi so với nghĩa cũ trong tiếng Latin muộn là "trở nên năng động, nhanh nhẹn". Ý nghĩa "thực vật được trồng làm thực phẩm" của "vegetable" không được xác lập cho đến tận thế kỷ 18.[8] Năm 1767, từ này được dùng để với nghĩa cụ thể "thực vật được trồng làm thực phẩm, một loại thảo mộc hoặc rễ ăn được". Năm 1955 đã xuất hiện cách dùng rút gọn đầu tiên, từ "veggie" trong tiếng lóng.[9] Ở dạng tính từ, vegetable được sử dụng trong ngữ cảnh khoa học và kỹ thuật với nghĩa khác và rộng hơn nhiều, cụ thể là "liên quan đến thực vật" nói chung, ăn hoặc không ăn được, như trong vegetable matter (lớp phủ thực vật), vegetable kingdom (giới thực vật), vegetable origin (nguồn gốc thực vật), v.v.[7]

Với định nghĩa được đề cập sau của "rau", định nghĩa dùng trong ngôn ngữ phổ thông, thì hai từ "quả" và "rau" loại trừ lẫn nhau. "Quả" hiểu theo nghĩa thực vật học là bộ phận phát triển từ bầu nhụy của thực vật có hoa. Cách hiểu này khác biệt đáng kể so với nghĩa trong ẩm thực của từ này. Như trường hợp đào, mận, cam được coi là "quả" theo quan niệm của cả hai lĩnh vực, thì nhiều nông sản thường được gọi là "rau" như cà tím, ớt chuông, cà chua, nhưng thực ra chúng lại là quả theo nghĩa thực vật học. Câu hỏi liệu cà chua là một loại rau hay quả được tìm thấy trong hồ sơ của Tòa án Tối cao Hoa Kỳ năm 1893. Trong vụ Nix kiện Hedden, tòa án kết luận cà chua được xác định chính xác là một loại rau, và vì vậy phải đánh thuế cà chua theo yêu cầu của Chính sách thuế năm 1883 đối với hàng hóa ngoại nhập. Dù tòa án đã công nhận, nhưng về mặt thực vật học, cà chua vẫn là một loại quả.[10]